When Diffusion Recommenders Stop Sampling: Preserving Generative Diversity
当扩散推荐停止采样:保留生成多样性
🧭 生成式推荐 · 潜在扩散与采样多样性 ★ 深度解读
Criteo AI Lab · Sorbonne Université · CNRS · ISIR
DARTS 用三阶段潜在扩散解耦表示学习、生成与排序,缓解采样坍缩并提升排序精度
📌 工作参考价值(4 点)
- 业务上可直接复用三阶段解耦:先用 masked item modeling 冻结 item latent space,再在固定 latent space 里训练 diffusion,最后只 fine-tune decoder 做排序。不要在图里一边训扩散一边让 representation 漂移。
- 不要在 diffusion 轨迹上加 catalog cross-entropy/ranking loss:实验表明哪怕 α=0.1 的 CE 也会把采样方差比 R 从 0.30 打到 0.14、PR 从 4.7 打到 1.5,且 NDCG 不升反降。生成阶段就只做 latent regression,排序监督延迟到 decoder。
- 推理时用 posterior-predictive aggregation:同一 context 采样 M 个 latent,decoder 输出的 catalog softmax 做算术平均再排序,固定 slate size 下能稳定提升 NDCG。注意吞吐会降,但单样本已经比 DiffuRec 快 3.6 倍且指标更好。
- 采样多样性要有独立诊断指标:只报 Jaccard 会误读低质量乱序;建议同时看 latent 空间的方差比 R 和 participation ratio PR,区分“量级小”与“方向坍缩”,避免把 decoder 敏感性当生成多样性。